指令容量：受控负载下语言模型的行为与退化
🧭 指令跟随能力评测 · 容量度量
Independent researcher
用原子替换规则构建负载度量，测出 GPT-4o mini 在 95% 正确率下约 37-38 条规则的指令容量
📌 工作参考价值（3 点）
- 在电商 Agent 或生成式推荐 prompt 中，多约束（类目、价格、品牌、排序、输出格式）本质是规则负载，可借鉴本工作的「原子规则替换」思想，用离线评测标出模型在指定正确率下的规则容量，作为 prompt 复杂度预算上限。
- 论文给出负载因素（文本长度、词位置、替换密度、规则数、规则编号）与正确率之间平滑可拟合的规律，工程上可建立类似回归曲线，在规则数量增加时预测掉落，提前做 prompt 拆分或分段生成。
- 方法提供开源数据和 passport，可直接改造为业务 prompt 指令负载回归测试，监控不同模型版本/微调后的容量退化，辅助选择基座或 LoRA 融合策略。
DIAL：蒸馏指令遵循等级的可操控语言模型
🧭 语言模型细粒度指令遵循控制
School of Computing, National University of Singapore, Singapore · Singapore-MIT Alliance for Research and Technology Centre, Singapore · CSAIL, Massachusetts Institute of Technology, USA · School of Electrical and Electronic Engineering, Nanyang Technological University, Singapore
轻量steering adapter+CFG蒸馏实现LLM指令遵循程度细粒度控制，并保持高吞吐与跨指令泛化
📌 工作参考价值（4 点）
- 在电商导购/客服 LLM 中，可用 DIAL 式的 steering adapter 对“回复长度/促销语气/品牌人设”做连续数值控制，避免仅靠 prompt 导致过短或过啰嗦；同一 base LLM 可部署多档风格服务不同场景，例如售前简短答疑与售后详细说明。
- 对 Agent 工具调用、商品属性抽取等可验证约束，可借鉴其“结合 prompting 提升 verifiable instruction following”：把价格、材质、适用人群等作为 verifiable 约束，在生成时动态加强遵守，降低后校验和拒识成本。
- 共享 text-conditioned classifier 的设计使得新增指令/风格无需重新拟合 adapter，便于在推荐文案、搜索广告标题、push 文案等多任务上用一个模型快速扩展；离线训练只需 instruction+request 文本，省去大量标注 response。
- 其 closed-form steering edit 推理开销极小，吞吐保持 96–99%，适合推荐/搜索/广告在线高 QPS 场景；可在流量侧按用户特征或场景动态选择 adherence level，实现个性化响应风格。
LLM 忘记所信：长程对话中的状态完整性崩塌表征
🧭 长对话状态完整性评估与缓解
School of Artificial Intelligence, Shenzhen University
定义状态完整性崩塌，用 StateTrack-Bench 揭示长对话中模型“记得但不执行”约束的失败模式，并验证结构化锚定可部分恢复
📌 工作参考价值（4 点）
- 在对话式推荐/客服 Agent 中，用户偏好、预算、格式或业务规则常在多轮对话中设定；不能只测单轮遵循，要构建类似 StateTrack 的“约束保持”回归集，监控长 session 下 recall 与 compliance 是否解耦。
- 将关键状态用结构化锚点注入每轮上下文（如 system state block / 结构化 memory），实验显示可恢复最多 24.4 点；可在电商 Agent 中用类似“状态锚定”方式（固定摘要或 key-value constraints）防止行为漂移。
- 区分“忘记”和“记得但不做”很重要：排查线上 case 时，如果模型能复述约束却违反，补 RAG/摘要可能无效，需要改进推理或加显式约束检查。
- 对多轮推荐/搜索场景，格式约束（如输出 JSON、候选 ID 格式）容易发生 symbolic degradation，考虑后处理校验或每轮显式重申约束。
思考惯性：LLM 被要求不思考时仍在思考
🧭 LLM 推理行为评估与指令遵循
Tsinghua University · University of Oxford · Stanford University
系统评估 LLM 的“不思考”能力，提出三层指标并发现显式禁用推理无法可靠消除思维惯性
📌 工作参考价值（4 点）
- 在电商/Agent 系统中若依赖“禁用 thinking”来节省推理开销，不能只看模型设置或提示词，需用空思考率、问题-预答相关度、显式推理率等指标做线上回归，才能避免隐性推理延迟。
- 对搜索推荐 query 改写、客服 Agent 等场景，把开放生成改成先给候选答案或多选题形式，可显著提高“直接给答案”的合规率，减少推理 token 与耗时。
- 评估 LLM 输出是否真的“无推理”时，可复用 LLM-as-judge 的 Explicit Inference Rate 指标，业务侧能低成本监控模型行为。
- 若业务需要高准确度且答案空间开放，要接受“禁止推理”会带来准确率下降的 trade-off，设计时需评估延迟、成本与效果。
你改了主意，模型没改：多轮对话中的意图解谜
🧭 LLM 多轮意图追踪与自蒸馏训练
HKUST · Tencent Hy
提出 Intent-Eval 揭示 LLM 将已拒绝/被取代内容当作有效需求，并用 Intent-OPSD 自蒸馏缓解意图混淆
📌 工作参考价值（4 点）
- 在电商导购/客服 Agent 中显式维护 active intent 状态：用户说“换成蓝色”后又取消，不应把蓝色偏好带入后续推荐；可在 prompt 或上下文状态层标记 rejected/superseded，避免模型把“被提及”当成“仍有效”。
- 微调多轮指令跟随模型时可借鉴 Intent-OPSD：冻结同模型 Teacher 以最终决策和完整任务生成正确 active-intent 响应，Student 在含干扰的完整对话上做 on-policy self-distillation；有助于模型忽略被拒绝的中间变更。
- 构建多轮 Agent 评估集时加入 rejected proposal 和 superseded requirement 负样本，专门测意图混淆；这类错误在单轮指令遵循评测里不可见，但会影响真实转化与体验。
- 搜索/推荐澄清场景：用户多轮修正 query（如“不要红色，还是蓝色”）时，系统只应保留最终有效约束；可用版本化需求或 turn-level validity 标记，生成/排序前做一致性校验。
针对翻译微调LLM：通用遗忘缓解不保护MT特定指令遵循
🧭 LLM 微调与灾难性遗忘缓解
AppTek GmbH, Aachen, Germany · Machine Learning and Human Language Technology, RWTH Aachen University, Germany · Applied Science Private University, Amman, Jordan
比较微调中的遗忘缓解方法，发现EWC保留通用能力最好，但只有混合控制任务数据可保留MT特定指令遵循，且泛化有限
📌 工作参考价值（3 点）
- 在电商/推荐场景微调LLM（如生成推荐文案、query改写、对话Agent）时，建议添加EWC正则化：实现简单，能显著减缓通用基准能力下降（本文8B模型仅降1.7分 vs 标准微调11.0），同时不影响领域任务性能。
- 若需要保留多种控制能力（如文案语气、长度、格式），仅靠通用遗忘缓解不够，应在微调数据中混合少量控制任务示例，但需注意对未见过的指令模板泛化有限，因此要持续扩充控制任务的数据多样性。
- 评估微调模型时必须同时监控通用能力和任务特定指令遵循，不能只看单一指标，因为通用能力保留不代表特定控制能力保留。
从生产流量到后训练：构建覆盖企业请求的自托管 LLM
🧭 LLM 后训练 · 模块化 RL 与权重合并 ★ 深度解读
T-Tech
以模块化 GRPO 专家 + 两阶段 SLERP 融合替代联合多目标 RL，32B 模型在内部流量上超越约 7 倍参数基线并承接 50% 请求
📌 工作参考价值（4 点）
- 模块化 RL + 权重合并：在电商 Agent/工具调用/指令遵循等多目标后训练中，不要把所有 reward 联合训练；按能力轴独立 GRPO，再 SLERP 合并。新增能力只需训练一个专家、做 eval-only 融合系数搜索，避免重复调联合超参。
- 多语言 Function Calling 数据：不要直接翻译英文 FC 数据，要基于业务 API schema 原生生成（含本地语言参数值）；对 over-calling 可通过在训练数据里注入 synthetic irrelevance 抑制，而不是只改 reward。
- 面向线上真实流量构建离线 benchmark：用模板感知采样（mask 变量 token、LSH 分组、√count 预算）避免模板流量造成的伪多样性；评测按任务类型路由，分类/抽取用 reference verifier，开放生成用人工校准的 checklist judge，可显著提升评测与人工一致度。
- 自托管部署成本：32B 非 reasoning + FP8 vLLM 可覆盖大多数企业流量，较 235B 级别模型降低 2.8-3.9 倍 token 成本，适合做统一底座；但前沿 agentic 能力需保留大模型兜底。
面向音视频编辑整体评估的 AVE-Compass 基准与 AVE-Agent 框架
🧭 多模态音视频编辑评估
Nanjing University · Kuaishou Technology · National University of Singapore · Beijing University of Posts and Telecommunications · University of Illinois Urbana-Champaign
提出首个音视频耦合编辑评估基准 AVE-Compass，并设计模块化 Agent 框架提升跨模态编辑一致性与指令遵循度
📌 工作参考价值（4 点）
- 清单式 MLLM 评估方法可迁移至电商短视频广告的多模态生成质量校验，例如自动检查视频中商品外观与背景音乐的协调性。
- AVE-Agent 的模块化任务分解与自反思循环，为构建自动化多模态内容编辑流水线提供了模板，可用于批量优化商品展示视频。
- 跨模态对齐评估指标（如音画一致性）可能启发推荐系统中视频与音频协同特征的质量监控。
- 整体偏学术，业务直接落地难度较大，但 Agent 设计中的“分解→执行→评估→修正”闭环对多步骤推理任务（如动态创意生成）有参考意义。
解锁语音-文本组合能力：无需指令微调的遵循指令语音语言模型
🧭 语音语言模型 · 权重组合跨模态迁移
University of California, Santa Barbara · MIT-IBM Computing Research Lab, IBM Research
仅通过一次语音预训练后与文本指令微调向量权重相加，零语音指令数据实现指令遵循语音模型
📌 工作参考价值（4 点）
- 多模态助手低成本构建：可将已有强大指令遵循能力的文本LLM快速扩展为语音助手，仅需一轮语音适配预训练，无需昂贵的大规模语音指令数据，适合电商语音搜索、客服等场景快速原型。
- 权重算术即插即用：方法本质是模型融合（基座+任务向量），工程实现极其简单，可直接复用现有文本LLM的训练成果，减少重复训练成本，为Agent系统增加语音交互通道提供新范式。
- 模态能力解耦升级：当文本LLM基座或指令微调版本迭代时，只需重新计算任务向量并与原有语音适配权重组合，实现语音能力的快速升级，适合迭代快速的业务场景。
- 可推广到其他模态：该组合策略不限于语音，可借鉴用于图像、视频等模态的指令遵循迁移，为统一多模态推荐交互（如语音搜索、图像评论理解）提供统一框架。
世界模型自蒸馏：无需任务标注训练指令跟随视频智能体
🧭 世界模型 · 自蒸馏 · 强化学习 ★ 深度解读
Department of Computer Science, University of Bern
通过自蒸馏将详细描述知识迁移到简洁指令模型，并结合VLM反馈RL超越教师
📌 工作参考价值（4 点）
- 自蒸馏思路：用大模型生成丰富描述（如推荐理由、多模态内容），将其蒸馏到轻量指令跟随模型，降低线上成本。在电商文案生成或对话Agent中可复现。
- VLM弱奖励+RL：利用VLM作为零样本评估器为生成结果打分，指导强化学习迭代，避免人工标注。适用于推荐解释、搜索query改写等生成任务。
- 蒸馏奖励与任务奖励混合：用教师模型提供密度正则化，防止RL策略崩溃，这一平衡技巧可迁移到基于LLM的推荐策略优化。
- 数据生成范式：用VLM从未标注图像自动产出任务-解方案对，类似用LLM从用户行为日志生成训练样本，缓解语义ID生成或交互推荐中的数据稀缺。